Abdul Rahman sangat aktif dalam Pertubuhan Kebangsaan Melayu Bersatu (UMNO) dan selain daripada itu, juga merupakan Ahli Bersekutu Majlis Kebangsaan. Pada tahun 1956, beliau dilantik sebagai Timbalan Menteri Sumber Alam Semula Jadi dan Kerajaan Tempatan dan kemudian, dilantik menjadi menteri penuh dalam berbagai-bagai kementerian:

• 1957: Menteri Pengangkutan
• 1959: Menteri Perdagangan dan Industri
• 1960: Menteri Pelajaran
• 1962: Menteri Kesihatan
• 1964: kembali menjadi Menteri Pelajaran.

Beliau menang bertanding dalam Pilihan Raya Umum Malaysia 1959 bagi kawasan Kuantan, negeri Pahang (1958-1964).

Ketika itu Perdana Menteri Malaysia ialah Tunku Abdul Rahman dan Timbalan Perdana Menteri ialah Tun Abdul Razak Hussein. Pilihan raya ini adalah yang pertama selepas merdeka 31 Ogos 1957. Pilihan raya umum Tanah Melayu 1959 ini cukup hebat kerana diadakan berperingkat-peringkat , bermula dari negeri Perlis hingga Kelantan. Ketika itu Sabah dan Sarawak belum menyertai / membentuk Malaysia. Kerusi Parlimen bertambah dari 52 (1955) kepada 104 kerusi (1959). Perikatan menang 74 kerusi dan pembangkang menang 30 kerusi.